单因素方差分析分析

零假设

Ho 假设：

$$\boxed{{\displaystyle H_0:{\mu }_1={\mu }_2=\cdots ={\mu }_k}}$$

• ${\mu }_1$ 到 ${\mu }_k$ 代表 $k$ 个组的总体均值

示例：

比较 4 种肥料对作物产量的影响 $H_0$: 肥料 A/B/C/D 组的平均产量完全相同

线性回归视角

模型假设

$$y_{ij}=\mu +{\alpha }_i+{ϵ}_{ij},{ϵ}_{ij}\sim N(0,{\sigma }^2)$$

其中：

• $y_{ij}$：第 $i$ 组中第 $j$ 个观测
• $\mu$：总体平均水平
• ${\alpha }_i$：第 $i$ 组的效应（组偏差）
• ${ϵ}_{ij}$：随机误差
• $i$：行
• $j$：列

例如：

编号	A	B	C
I	4	3	2
II	5	5	4
III	6	5	3
IV	7	6	5
IIV	8	6	9
组平均	6	5	4.2

分解变异（计算平方和）

总平方和（SST）：所有数据与总体平均数 $\mu$ 的偏差

$$SST=\sum _{i=1}^3\sum _{j=1}^5(y_{ij}-\mu {)}^2=(4-5.33{)}^2+\cdots +(9-5.33{)}^2=54.67$$

组间平方差（SSB）：组均值与 $\mu$ 的偏差（固定效应 $ϵ$）

$$SSB=\sum _{i=1}^3{n}_i(\overline{y_i}-\mu {)}^2=5\times (6-5.33{)}^2+\cdots +5\times (5-5.33{)}^2=5.33$$

组内平方和（SSE）：组内数据 $y_{ij}$ 与组均值 $\overline{y_i}$ 的偏差（反应随机误差 ${ϵ}_{ij}$）

$$SSE=\sum _{i=1}^3\sum _{j=1}^5(y_{ij}-\overline{y_i})$$

上述均满足：

$$SST=SSB+SSE$$

计算均方与 F 统计量

均方

来源	平方和（SS）	自由度（df）	均方（MS = SS/df）
组间	SSA	$k-1$	$MSA=SSA/(k-1)$
组内	SSE	$N-k$	$MSE=SSE/(N-k)$
总体	SST = SSA + SSE	$N-1$	—

$$\boxed{{\displaystyle \text{总自由度}=\text{组间自由度}+\text{组内自由度}}}\Rightarrow \boxed{{\displaystyle N-1=(k-1)+(N-k)}}$$

F 统计量

$$F=\frac{MSA}{MSE}$$

ANOVA 表标准格式

变异来源	自由度 (df)	平方和 (SS)	均方 (MS = SS/df)	F 值
组间（因素A）	$k-1$	SSA	$\text{MSA}=\frac{SSA}{k-1}$	$F=\frac{MSA}{MSE}$
组内（误差）	$N-k$	SSE	$\text{MSE}=\frac{SSE}{N-k}$	—
总体	$N-1$	SST = SSA + SSE	—	—

结论

要根据 F 分布密度曲线来下结论，一般来说是右侧单尾检验：

图片来源：https://blog.sciencenet.cn/blog-292361-1101359.html

如果落在右侧，即否定原假设，认为不完全相同，有可能犯第一类错误，概率为 $\alpha$

如果落在左侧，即认可原假设，可以认为这两组完全相同，有可能犯第二类错误

快速计算公式

校正因子（CT）

$$CT=\frac{T^2}{n}=(\frac{T}{n}{)}^2\times (n)=n\times {\mu }^2$$

总平方和（SST）

将每个样本平方，然后减去校正因子（CT），得到所有数据和平均数的偏差

$$SST=\sum y^2-CT$$

组间平方差（SSB）

$$SSB=\sum \frac{T_i^2}{n}-CT$$

同理，可以将 $\frac{T_i^2}{n}$ 进行变形：

$$\frac{T_i^2}{n}=(\frac{T_i}{n}{)}^2\times n=(\text{组间平均数}{)}^2\times n_i$$

组内平方差（SSE）

$$SSE=SST-SSB$$